הרצאה 4 ב - הפרספטרון הבינארי

פרספטרון בינארי:

לעומת הנוירון הלינארי שתוצאתו (y) היא מכפלה סקלרית בין וקטור הקלטים לבין וקטור המשקלים, התוצאה בפרספטרון הבינארי היא תוצאת פונקציית sign, אשר מקבלת את המכפלה הסקלרית (התוצאה של הנוירון הלינארי) כקלט.
פונקציית sign:

\begin{aligned} sign (\vec{w} \cdot \vec{x}) & = {\begin{cases} 1 & \vec{w} \cdot \vec{x} > 0 \\ - 1 & \vec{w} \cdot \vec{x} < 0 \end{cases} \end{aligned}

תצוגה גרפית של פרספטרון בינארי:

Pasted image 20260204124903.png|600

אלגוריתם הלמידה הפרספטרוני:

נתחיל מהשגיאה עבור דוגמא יחידה:

\begin{aligned} ε = H (- y y_{0}) & = {\begin{cases} 1 & y \neq y_{0} \\ 0 & y = y_{0} \end{cases} \\ = \frac{1}{2} (1 - y y_{0}) = \frac{1}{2} (1 - sign (\vec{w} \cdot \vec{x}) y_{0}) \end{aligned}

מכיוון שפונקצית השגיאה היא פונקצית מדרגה (0 או 1), הנגזרת שלה לא רציפה, נשתמש בכלל למידה היוריסטי:
- אם הדוגמא מתויגת נכון (שגיאה אפס) לא נשנה את הקשרים
- אם יש שגיאה, נתקן בכיוון המכפלה בין הקלט והפלט הרצוי
- כלל התיקון:

\begin{aligned} Δ w_{k} & = η ε (\vec{w}, {\vec{x}}^{i}) x_{k}^{i} y_{0}^{i} \\ = η \frac{1}{2} (1 - y_{0} y) x_{k} y_{0} \end{aligned}

התכנסות התהליך: ניתן לדעת ויזואלית אם התהליך התכנס (כל הדוגמאות מתויגות נכון) על ידי השמת כלל הנקודות על מערכת הצירים ובדיקה האם ניתן לצייר מישור הפרדה שיגרור תיוג נכון של כל הדוגמאות